Dấu tích của tê giác lông mượt đã được biết đến từ rất lâu trước khi loài này được mô tả, và là cơ sở cho một số sinh vật thần thoại. Các dân tộc bản địa ở Siberia tin rằng sừng của chúng là móng vuốt của những con chim khổng lồ. Một hộp sọ tê giác được tìm thấy ở Klagenfurt, Áo, vào năm 1335, và được cho là của một con rồng. Vào năm 1590, nó được sử dụng làm cơ sở cho phần đầu trên bức tượng của một con sâu bướm. Gotthilf Heinrich von Schubert vẫn tin rằng những chiếc sừng là móng vuốt của những con chim khổng lồ, và phân loại loài vật này dưới cái tên Gryphus antiquitatis, có nghĩa là "chim nướng cổ đại".

Một trong những mô tả khoa học sớm nhất về loài tê giác cổ đại được đưa ra vào năm 1769, khi nhà tự nhiên học Peter Simon Pallas viết báo cáo về chuyến thám hiểm của mình tới Siberia, nơi ông tìm thấy một hộp sọ và hai chiếc sừng trong lớp băng vĩnh cửu. Năm 1772, Pallas mua lại đầu và hai chân của một con tê giác từ người dân địa phương ở Irkutsk, và đặt tên cho loài này là Rhinoceros lenenesis (theo tên sông Lena). Năm 1799, Johann Friedrich Blumenbach nghiên cứu xương tê giác từ bộ sưu tập của Đại học Göttingen, và đề xuất tên khoa học là Rhinoceros antiquitatis. Nhà địa chất học Heinrich Georg Bronn đã chuyển loài này đến Coelodonta vào năm 1831 vì sự khác biệt về hình thành răng của chúng với các thành viên của chi Rhinoceros. Tên này xuất phát từ tiếng Hy Lạp κοιλία (koilía, "sâu răng") và ὀδούς (odoús "răng"), từ chỗ lõm trong cấu trúc răng hàm của tê giác, tạo ra tên khoa học Coelodonta antiquitatis, "răng rỗng cổ ".

Sự phát triển

Tê giác lông mượt là loài có nguồn gốc nhiều nhất trong chi Coelodonta. Họ hàng gần nhất tuyệt chủng với tê giác lông cừu là chi thú xương mỏng. Hai đường này bị chia cắt trong nửa đầu của Miocen. Xác ướp tê giác Stephanorhinus 1,77 triệu năm tuổi cũng có thể đại diện cho một nhóm chị em với Coelodonta. Tê giác lông mượt có thể là hậu duệ của loài C. tologoijensis Á-Âu hoặc C. thibetana của Tây Tạng. Vào năm 2011, một hóa thạch tê giác lông cừu 3,6 triệu năm tuổi, cổ nhất được biết đến, được phát hiện trên Cao nguyên lạnh giá Thanh Tạng. Một nghiên cứu trên các mẫu DNA từ 40.000 đến 70.000 năm tuổi cho thấy họ hàng gần nhất còn sống của nó là tê giác Sumatra.